ChatGPT споделя данни за това колко потребители проявяват психоза или мисли за самоубийство

OpenAI разгласява нови оценки за броя консуматори на ChatGPT, които демонстрират вероятни признаци на незабавни психологични болести, в това число фикс идея, неуравновесеност или самоубийство мисли.

Компанията сподели, че към 0,07% от потребителите на ChatGPT, дейни през дадена седмица, демонстрират такива признаци, добавяйки, че нейният чатбот с изкуствен интелект (AI) разпознава и дава отговор на тези чувствителни диалози.

Докато OpenAI поддържа тези случаи са " извънредно рядко “, критиците споделиха, че даже дребен % може да възлиза на стотици хиляди хора, защото ChatGPT неотдавна доближи 800 милиона седмични дейни консуматори, съгласно шефа Сам Алтман.

С повишаването на инспекцията компанията сподели, че е построила мрежа от специалисти по целия свят, които да я поучават.

Тези специалисти включват повече от 170 психиатри, психолози и лекари от първичната здравна помощ, които са практикували в 60 страни, сподели компанията.

Те са измислили поредност от отговори в ChatGPT, с цел да насърчат потребителите да търсят помощ в действителния свят, съгласно OpenAI.

Но погледът към данните на компанията повдигна вежди измежду някои експерти по психологично здраве.

„ Въпреки че 0,07% звучи като дребен %, на равнище население със стотици милиони консуматори, това в действителност може да са много хора “, сподели доктор Джейсън Нагата, професор, който учи потреблението на технологии измежду млади възрастни в Калифорнийския университет, Сан Франциско.

„ AI може да разшири достъпа до поддръжка за психологично здраве и по някакъв метод да поддържа психологичното здраве, само че би трябвало да сме наясно с рестриктивните мерки “, добави доктор Нагата.

Компанията също по този начин пресмята, че 0,15% от потребителите на ChatGPT водят диалози, които включват „ експлицитни знаци за евентуално обмисляне или желание за самоубийство. “

OpenAI сподели, че последните актуализации на неговия чатбот са предопределени да „ реагират безвредно и съпричастно на евентуални признаци на илюзия или фикс идея “ и означават „ непреки сигнали за евентуален риск от самонараняване или самоубийство. “

ChatGPT също е подготвен да пренасочва чувствителни диалози, " произлизащи от други модели към по-безопасни модели ", като се отваря в нов прозорец.

В отговор на въпроси на BBC по отношение на рецензиите по отношение на броя на евентуално засегнатите хора, OpenAI сподели, че този дребен % консуматори съставлява забележителен брой хора и означават, че одобряват измененията съществено.

Промените идват, когато OpenAI е изправен пред възходящ юридически надзор върху метода, по който ChatGPT взаимодейства с потребителите.

В едно от най-шумните правосъдни каузи, заведени неотдавна против OpenAI, двойка от Калифорния съди компанията за гибелта на техния младеж, който твърди това ChatGPT го насърчи да посегне на живота си през април.

Делото беше заведено от родителите на 16-годишния Адам Рейн и беше първото правно деяние, обвиняващо OpenAI в непозволена гибел.

В обособен случай обвиненият в убийство-самоубийство, осъществено през август в Гринуич, Кънектикът, разгласява часове от неговите диалози с ChatGPT, които наподобява са подхранвали заблудите на хипотетичния причинител.

Повече консуматори се борят с неуравновесеност на ИИ, защото „ чатботовете основават илюзията за действителност “, сподели професор Робин Фелдман, шеф на Института за право и нововъведения в ИИ към университета от закона на Калифорния. „ Това е мощна заблуда. “

Тя сподели, че OpenAI заслужава самопризнание за „ шерването на статистика и за напъните за възстановяване на казуса “, само че добави: „ компанията може да сложи всевъзможни предизвестия на екрана, само че човек, който е душевен изложен на риск, може да не е в положение да обърне внимание на тези предизвестия. “

Регистрирайте се за нашия бюлетин Tech Decoded, с цел да следите най-хубавите международни софтуерни истории и трендове. Извън Обединеното кралство? Регистрирайте се тук.